Technical article

医疗智能体敢给诊断？这条红线碰不得，设计重心是安全

医疗智能体敢给诊断建议？这条红线碰不得，设计重心只有四个字：安全

有团队给医院做分诊智能体，结果患者描述症状，它直接"根据经验开药"。这不是智能，是危险。医疗场景里，智能体的第一设计约束不是好用，是安全——不越界、不乱说，比什么都重要。

重心一：严格边界，只分诊不诊断

系统提示词第一行就要写死：不诊断、不给用药剂量，只做分诊建议与就医方向。这是合规底线，也是安全底线。

重心二：升级转医生，危险词即触发

"胸痛、卒中、自杀倾向"等危险词出现，立即转接医生或急救，不犹豫、不纠缠。示例指令："你是预问诊分诊助手，不诊断不开药；出现危急症状词立即建议拨打急救并转人工。"

重心三：隐私合规，病历脱敏

患者信息按《个人信息保护法》脱敏处理，病历不外传、不落本地明文。隐私设计是医疗智能体的前置条件，不是事后补丁。

效果与注意事项

某互联网医院把"边界+升级+脱敏"三件套写满后，误下诊断建议归零，危急症状转接及时率 100%。注意：绝不输出用药剂量、绝不做确诊结论、绝不留存可识别个人明文病历。

动手前先想清楚底线

医疗智能体落地，先问"哪句话说错会出人命"，把那句话写进角色边界和升级条件。骨架套四步法，安全兜底是前提。设计图先画清，再谈上线。